Cos'è matrice hessiana?

Matrice Hessiana

La matrice hessiana, chiamata anche semplicemente hessiana, è una matrice quadrata di derivate parziali seconde di una funzione scalare di più variabili. Essa descrive la curvatura locale di una funzione in un punto specifico. In altre parole, fornisce informazioni su come la funzione "si piega" in quel punto.

Formalmente, data una funzione f(x₁, x₂, ..., xₙ), la matrice hessiana H è una matrice n x n i cui elementi sono:

Hᵢⱼ = ∂²f / (∂xᵢ ∂xⱼ)

Dove:

  • Hᵢⱼ è l'elemento nella riga i-esima e colonna j-esima della matrice hessiana.
  • ∂²f / (∂xᵢ ∂xⱼ) è la derivata parziale seconda di f rispetto a xᵢ e xⱼ.

Importanza della Matrice Hessiana:

  • Ottimizzazione: La matrice hessiana è fondamentale per determinare se un punto critico (dove il gradiente è zero) è un massimo locale, un minimo locale o un punto di sella. Il segno degli autovalori della matrice hessiana valutata nel punto critico fornisce queste informazioni.

  • Analisi della Convesità: Se la matrice hessiana è definita positiva in un determinato dominio, allora la funzione è convessa in quel dominio. Analogamente, se è definita negativa, la funzione è concava.

  • Metodo di Newton: La matrice hessiana è utilizzata nel metodo di Newton per l'ottimizzazione. L'hessiana fornisce informazioni sulla curvatura della funzione che vengono utilizzate per calcolare la direzione di ricerca del minimo.

  • Analisi di Sensibilità: La matrice hessiana può essere usata per analizzare la sensibilità della funzione a piccole variazioni delle variabili di input.

Calcolo della Matrice Hessiana:

Il calcolo della matrice hessiana richiede il calcolo di tutte le derivate parziali seconde. Per una funzione di n variabili, ciò significa calcolare derivate parziali seconde.

Esempio:

Consideriamo la funzione f(x, y) = x² + 3xy + y².

  1. Calcola le derivate parziali prime:

    • ∂f/∂x = 2x + 3y
    • ∂f/∂y = 3x + 2y
  2. Calcola le derivate parziali seconde:

    • ∂²f/∂x² = 2
    • ∂²f/∂y² = 2
    • ∂²f/∂x∂y = 3
    • ∂²f/∂y∂x = 3 (Dato che in molti casi, per il Teorema di Schwarz, ∂²f/∂x∂y = ∂²f/∂y∂x)
  3. Costruisci la matrice hessiana:

H = | 2 3 | | 3 2 |

Considerazioni Importanti:

  • La matrice hessiana è simmetrica se le derivate parziali seconde miste sono continue (Teorema di Schwarz).
  • L'esistenza e la continuità delle derivate parziali seconde sono prerequisiti per l'esistenza e l'utilità della matrice hessiana.
  • La matrice hessiana può essere costosa da calcolare per funzioni con un gran numero di variabili. Esistono approssimazioni e metodi di calcolo numerico per affrontare questo problema.